Omni-Embed-Mini：通过稠密蒸馏绑定模态而不遗忘
🧭 多模态嵌入蒸馏与对齐
Mohamed Bin Zayed University of Artificial Intelligence
0.9B 参数多模态嵌入模型，冻结文本塔、用稠密 caption 自身嵌入作教师，在不退化文本检索下对齐六模态
📌 工作参考价值（5 点）
- 多模态向量召回：把商品图片、视频、ASR 文案、详情页等映射到同一余弦空间，可实现自然语言 query 直接检索图片/视频/富文档，直接用于电商搜索、广告创意匹配、内容推荐。
- 冻结文本塔防退化：现有文本 embedding 服务（如商品描述召回）扩展多模态时，可完全冻结文本编码器，只对非文本模态编码器加轻量 projector 和 phased LoRA，避免线上文本检索指标下滑，工程上更安全。
- 用稠密 caption 做教师信号：用多模态 LLM 离线为图片/视频/音频批量生成 dense caption，再以文本塔 embed caption 作为学生对齐目标，无需单独训练教师模型，成本低且几何空间天然一致。
- 在线混合 hard negative miner：随着 encoder 更新逐步 sharpen 负样本，可结合 ANN 检索召回困难负样本，提升对比学习区分度，适合电商多模态检索中的难例挖掘。
- 0.9B 小模型即可覆盖六模态，2.3B 变体接近闭源 gemini-embedding-2，适合业务落地部署。
SSR-GRPO：融合监督与语义ID的强化学习电商稠密检索
🧭 电商稠密检索 · Semantic ID + RL ★ 深度解读
Alibaba Group
用层级语义ID替代大模型裁判并构造难负样本，提升电商稠密检索的RL训练稳定性
📌 工作参考价值（4 点）
- 用 RQ-VAE 学层级 Semantic ID 作为稀疏 relevance 信号：item 量化成 3 层 SID，query 用 LLM 生成 SID，按前缀匹配深度打分（0/0.25/0.5/1.0），与 dense embedding 融合后替代 Judge LLM。SID-only 效果已接近 42B MoE 判官，训练成本低且减少裁判偏置，适合电商召回模型 RL 落地。
- 难负样本构造可复用：Type II 共享前两层 SID、只差第三层的负样本能逼迫模型学细粒度语义边界；Type I 用进入粗排但被精排低分过滤的样本，作为“语义相关但商业弱”的负样本，适合电商 CTR/CVR 目标。
- Masking 机制：GRPO 中 top-K 候选里 reward 低于 hard negative 的样本直接 mask 掉，可过滤 batch 内噪声 easy negatives，缓解 Reward Hacking；类似 DeepSeek V3.2 的 off-policy sequence masking。
- 多目标联合优化：RL 梯度方差大，用 R-DPO（无 reference policy 的 pairwise margin loss）提供稳定监督梯度，配合 uncertainty-based dynamic weighting 避免手动调权；同时 SFT 初始化不可省略，RL-only 效果很差。
从失败中学习：检索中心化思维链与难负样本驱动的统一多模态检索
🧭 多模态检索 · 检索中心化思维链
Glint Lab
提出UniME-R1，基于检索反馈生成思维链纠正嵌入器混淆，借助难负样本与强化学习提升检索
📌 工作参考价值（4 点）
- 检索反馈驱动的思维链：在推荐重排序阶段，可对初始召回结果生成解释性推理文本，放大易混淆 item 的细微差异，用于 query 改写或特征增强。
- 难负样本挖掘策略：有效模拟线上召回失败 case，尤其适用于构建对抗训练集，提升模型对相似商品/视频的判别力。
- 双模式嵌入器设计：直接检索与 CoT 增强检索双路并行，可在精排场景中作为混合表示，或用于多阶段漏斗中粗精排衔接。
- 检索导向强化学习：将对齐奖励直接定义在检索指标上，可迁移至推荐场景中，优化生成式推荐模型的最终曝光收益而非中间 token 似然。
MagicSelector：反事实分解与渐进重排的Agent工具选择联合优化
🧭 Agent工具检索与任务分解优化 ★ 深度解读
HONOR
提出反事实任务分解、自蒸馏重排和动态Top-K，联合优化Agent工具检索，显著提升精度和效率
📌 工作参考价值（4 点）
- 反事实奖励可迁移至电商搜索的query分解/意图识别模块，避免在复杂多意图query下生成无关子查询，通过量化分解对下游召回/排序的边际增益提供因果级训练信号。
- 自蒸馏难负例挖掘与渐进式重排（先点式后列表式）可直接用于广告/商品相似品区分，迭代挖掘高分不相关样本，增强模型对功能相似物品的细粒度判别力。
- 双语义边界感知的动态Top-K截断策略可应用于推荐系统的召回后过滤，自适应截断候选集，减少大模型推理时的token消耗和上下文噪声，避免固定K导致的关键物品遗漏。
- 多轮交互过程级标注数据集构建思路可迁移至对话推荐场景的评估，提供更细粒度的诊断能力，定位是上下文理解、意图分解还是检索环节失效。
POEM：基于部分有序序列的实时用户兴趣建模
🧭 实时序列推荐 · 排序信号利用 ★ 深度解读
Kuaishou Technology
用上一次请求的多目标排序分数构造部分有序输入序列，实现请求级实时用户表征学习，在线 A/B 观看时长分别提升 0.249% 和 0.213%
📌 工作参考价值（4 点）
- 用上游排序结果构造动态输入序列：在每个请求到来时，取出用户上一次请求中排序阶段的多目标分数（CTR、CVR、观看时长），通过分组随机采样形成 64 长度的部分有序序列。该序列作为第二塔的输入，让用户表示每次请求都能刷新，即使没有新的点击行为也能捕捉兴趣漂移。这一机制可直接移植到电商搜索推荐的精排后、召回/粗排前的实时嵌入更新链路。
- 逆排名加权融合多目标分数：简单平均会因量纲和重要性差异导致融合失效。POEM 对每个目标分数按排名取倒数（1/rank），再做加权平均，得到的优先级分数天然归一，且可灵活调整目标权重。工程上只需存储上一次请求的候选集分数和排名，计算开销极小。
- 双正样本 + 图增强硬负样本的层次化训练：正样本同时包含用户真实正向反馈（点击/长播放）和系统最高分候选（蒸馏排序偏好），缓解曝光偏差并提升召回与下游排序的一致性（级联意识）。硬负样本从 Swing 图检索相似项，并做概率采样（选第三低相似度或随机），比 in-batch 随机负例带来更精细的决策边界，提升 HR@50 约 8%。电商场景可复用此方案，用商品共现图或语义图替换 Swing 图。
- 因果性在线架构：严格遵循“用上一次请求的排序结果构造本次请求的表示”的因果时序，避免未来信息泄露。在线部署时仅需缓存一次请求的 top 候选和多目标分数，推理延迟可控制在毫秒级。这一设计原则对需要实时更新的检索模型很重要。
利用LLM标注训练数据扩展稠密检索：电商赞助搜索的结构化挖掘与渐进课程
🧭 稠密检索 · LLM标注 · 课程学习 ★ 深度解读
Walmart Global Tech
用多通道检索分歧和LLM级联生成240M+结构化样本，配合三阶段课程训练，使稠密检索在Walmart线上NDCG@10提升5.1%
📌 工作参考价值（4 点）
- 多通道分歧挖掘正负样本：利用词典/BM25/现有ANN系统间的低重叠（13%-15%），自动生成easy positives（三通道共识）、hard positives（词汇系统命中但ANN遗漏）和hard negatives（仅单通道高分但无关），无需人工标注。任何有多路召回的业务可直接套用。
- 校准级联减少标注成本：Cross-Encoder(184M) → LoRA 2B LLM → LoRA 8B LLM，每类别做isotonic calibration，高置信度提前接受，含糊样本升级，在保持89.1%人类一致率下节省约50%计算。可迁移到需要大规模打分/标注的场景，尤其适合用成本换取准确率权衡。
- 三阶段渐进课程设计：Stage1 BCE训练“容易正+随机负”打基础，Stage2 MNR引入hard negatives学排序，Stage3 Triplet用token-similar negatives学语义区分。直接混合训练比课程低9.5% NDCG@10；必须严格按BCE→MNR→Triplet顺序，以BCE结尾会毁掉细粒度表征。
- 硬标签远监督代替软蒸馏：LLM级联离线生成hard labels，缓存复用，升级独立，不增加线上延迟。适合需要解耦标注与训练的场景，但需容忍~11%的标签噪声；文中指出当数据量足够大时深度模型可容噪改善。
UniNote：面向多模态 I2I 检索的统一嵌入与排序模型
🧭 多模态嵌入 · 统一检索排序框架 ★ 深度解读
Xiaohongshu Inc. · Shanghai Jiao Tong University · Huazhong University of Science and Technology · Beijing Institute of Technology
提出两阶段训练范式，将对比 SFT 与 GRPO 强化学习结合，实现多模态 I2I 检索与相关性排序一体化
📌 工作参考价值（4 点）
- 多任务统一嵌入构建：将 I2I 检索细化为 10 种具体任务（原子对齐、局部检索、OCR 感知等），通过模态替换与描述生成构造训练对，可直接借鉴用于电商商品多模态检索的统一 embedding 模型。
- 两阶段训练解锁检索-排序一体化：第一阶段用对比 SFT + 多粒度硬负样本挖掘（相似度区间设置 + 规则负样本）训练基础嵌入，第二阶段用 GRPO 多维度奖励（无关惩罚、基础奖励、绝对/相对位置奖励）直接在嵌入空间优化排序，省去额外重排序模型，适合对延迟敏感的线上召回。
- MRL 实现灵活部署：训练时融入 Matryoshka Loss，可输出 64/512/1024/4096 维嵌入，512 维已接近全维性能，为不同存储与算力约束的工业场景提供按需降维的选择。
- 在线/离线双模式架构：高并发小库验证 + 低请求大库检索的部署设计，用一次嵌入同时支持多种下游匹配，大幅降低资源开销，可直接参考用于 Agent 或推荐系统中的实时物品检索。